Thành ngữ tiếng Hán thường gồm bốn chữ, một số thành ngữ có ba hoặc trên bốn chữ. Kết cấu thành ngữ thường theo dạng biền ngẫu, đăng đối dễ dàng nhận thấy trong các thành ngữ 4 chữ, hoặc 8 chữ ví dụ:

• Công thành danh toại (功成名遂): công thành (功成) <> danh toại (名遂)
• Đại sự hóa tiểu, tiểu sự hóa vô (大事化小，小事化無): đại sự (大事) <> tiểu sự (小事)

Còn dạng 5 chữ thì hai chữ Hán đầu và hai chữ Hán cuối là hai vế đối xứng qua một chữ ở giữa, ví dụ:

• Đại ngư cật tiểu ngư 大魚吃小魚 - đại ngư 大魚 <> tiểu ngư 小魚

Rất nhiều thành ngữ sử dụng các điển cố, là các tích truyện xưa có giá trị giáo dục và ý nghĩa lịch sử sâu sắc. Chẳng hạn:

• Lục lâm hảo hán 綠林好漢: chỉ người anh hùng trong dân gian, hoặc bọn cướp trộm tụ tập thành bầy. Theo truyện xưa thời Vương Mãng, những kẻ nổi dậy chống lại triều đình tụ họp nhau ở núi Lục Lâm.
• Thiết xử ma thành châm 鐵杵磨成針: mài chầy sắt thành kim. Theo truyện xưa, Lý Bạch hồi nhỏ rất lười học, ham chơi. Một buổi đi chơi thấy một bà lão suốt ngày ngồi cặm cụi cầm chiếc chày sắt mài đi mài lại. Lý hỏi làm thế để làm gì, bà lão trả lời rằng, mài cho thành chiếc kim khâu. Nhân đó, Lý Bạch tỉnh ngộ và chăm chỉ học hành, về sau trở thành nhà thơ lớn của Trung Quốc cổ đại.